iT邦幫忙

2024 iThome 鐵人賽

DAY 30
1

終於到了鐵人賽的第三十天,不免俗的還是要來分享一下回顧這三十天(認真來說應該是二十九?)的內容以及完賽心得

回顧三十天

D1-D10

  • 網路的基本概念 TCP/IP model,網路模型對應到的實體裝置
  • Kubernetes的基本元件以及架構
  • 如何安裝Kubernetes
  • Kubernetes中常見的資源(例如:Pod、Replicas、Deployment、NameSpace、Network Policy等等...)

D11-20

  • 深入探討如何在 Kubernetes 部署LLM 以及 RAG
  • RAG架構(向量資料庫(Vector Database)、詞嵌入模型(Embedding Model)、檢索的方法與效果)
  • 介紹向量資料庫(Vector Database)
  • 詞嵌入模型(Embedding Model)的設置與使用
  • 檢索的方法與效果
  • LLM 與 Langchain的介紹
  • 在Kubernetes中部署LLM

D21-30

  • 可觀測性的起源
  • 常見的可觀測性工具Opentelemetry
  • Opentelemetry架構
  • 如何產生遙測資料以及使用上下文傳播
  • 介紹Grafana一系列的可視化工具

撰寫鐵人賽文章的過程中,不但是分享給其他夥伴自身的經驗。同時也是透過這個過程,整理學習到的知識,練習將這些知識脈絡弄清楚。不但下文能夠承接上文,參考的資料還有所根本。也感謝夥伴以及大大們,收看我文章並且願意在留言區中補充更多內容,非常感謝。

未來也會持續關注可觀測性的領域。尤其是GAI(Generative artificial intelligence 生成式人工智慧)的風潮,可見也是爾後一大發展重點。既然如此,勢必也有機會發展成分散式架構,後續可能會有需要查看問題的token數的消耗、回覆給使用者速度、GPU & NPU的效能監控等等,因此可觀測性在GAI的領域之中也相當重要。

最後感謝各位的收看,下台一鞠躬。


上一篇
第二十九篇:介紹 Grafana Lab 系列的可觀測性工具
系列文
成為 Kubernetes 特級咒術師的 30 天修行30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言